ˆ het voorkomen van bepaalde woorden in de body van de mail,

Transcriptie

1 Opdracht 1: Bayesiaanse Spam Filter Het doel van deze opdracht is het ontwerpen van een eenvoudige spam filter op basis van een Bayesiaans Netwerk. Je zal het model implementeren in Netica en het toepassen op twee voorbeelden. Om te bepalen of een binnenkomende mail als spam of niet spam geklasseerd moet worden, zal je spam filter rekening houden met ˆ het voorkomen van bepaalde woorden in de body van de mail, ˆ de header van de mail, ˆ het programma waarin de mail geschreven werd, ˆ de achtergrondkleur, ˆ of de mail al dan niet naar een mailinglijst gestuurd werd. Hieronder krijg je stap voor stap de informatie die je nodig hebt om de structuur van het Bayesiaanse Netwerk vast te leggen en de kansentabellen bij elke knoop in het netwerk in te vullen. Lees deze informatie zeer aandachtig. De eigenlijke opdracht volgt daaronder. 1. Kritieke woorden in de body van de mail Bij de aanvang van deze stap zou je de mails in je mailbox in principe moeten verdelen in twee mappen: een map met alle mails die je (persoonlijk) als spam beschouwt, en een tweede map voor je niet spam mails. Voor deze opdracht vereenvoudigen we deze stap. In de directory I:/GT/Export/roroe/2TI/SN - Operationele analyse/les 5/ vind je verdeeld over de mapjes spam en nonspam 20 tekstbestanden (.txt): 10 tekstbestanden van de vorm spam*.txt en 10 tekstbestanden van de vorm nonspam*.txt. We beschouwen de 10 spam*.txt bestanden als de body s van de spam mails in je mailbox en de 10 nonspam*.txt bestanden als de body s van de niet spam mails in je mailbox. Als bijkomende vereenvoudiging wordt er in deze mails een woordenschat met slechts 10 woorden gebruikt: offer, account, free, movie, mailing, student, sex, school, lessons, university. (a) Het is de bedoeling dat je voor beide klasse van mails ( spam en niet spam ) de frequentie van elk van die 10 woorden bepaalt. Je kan daarbij volgend hulpmiddeltje gebruiken: hklein/zipf/zipf.htm Voor de mails uit de klasse spam : open de 10 spam*.txt bestanden, kopieer de tekst uit elk bestand en breng ze samen in het venstertje op bovenstaande webpagina. Als je het tooltje compileert, krijg je een frequentietabel voor de 10 woorden en het totaal aantal woorden in de 10 spam*.txt bestanden. Met deze gegeven kan je de kans (in procenten) bepalen waarmee elk van die 10 woorden opduikt in een spam mail. Herhaal dit voor de mails uit de klasse niet spam. Op het einde van deze stap heb je dus twee frequentietabellen. Voeg deze toe aan je oplossingen. (b) Bij het ontwerpen van je Bayesiaans netwerk zal elk van de 10 woorden overeenkomen met 1 knoop. Al deze knopen hangen rechtstreeks af van de knoop spam of niet. Om de kansentabellen van deze 10 knopen in te vullen, kan je gebruik maken van de twee frequentietabellen. (Gebruik 2 cijfers na de komma.)

2 Opmerking: omdat een Bayesiaans spam filter vertrekt van een persoonlijke lijst met spam mails en niet spam mails, zal een Bayesiaanse spam filter doorheen de tijd een filter worden die voor de persoon in kwestie steeds betert filtert tussen spam mails en niet spam mails. Nieuwe inkomende mails zullen op basis van de filter geklasseerd worden als spam of niet spam. De frequenties van de woorden in deze nieuwe mails worden steeds toegevoegd aan de bestaande lijst. De spam filter leert dus voortdurend bij en wordt dus persoonlijker telkens wanneer er een nieuwe mail arriveert. 2. De header van de mail De header van een mail vertelt ons vaak veel over de kans dat een mail spam is of niet. Omdat we in deze opdracht een eenvoudige spam filter bouwen zullen we in dit geval alleen (laten) nagaan of de header van de mail xxx bevat of niet. Veronderstel dat 80% van de spam mails xxx bevat in de header, terwijl dit voor niet spam mail 5% bedraagt. 3. Het programma waarin de mail geschreven werd Ter vereenvoudiging brengen we alleen in rekening of een mail geschreven is in Outlook Express of niet. Veronderstel dat 70% van de binnenkomende mails in Outlook Express geschreven is. 4. De achtergrondkleur We beschouwen (slechts) vijf mogelijke achtergrondkleuren: rood, groen, zwart, wit en blauw. Veronderstel dat de achtergrondkleur van een mail afhangt van drie mail eigenschappen: ˆ de mail is spam of niet, ˆ de header bevat xxx of niet, ˆ de mail is geschreven in Outlook Express of niet. Gebruik de volgende kansentabel bij het construeren van je Bayesiaans Netwerk: spam xxx Outlook rood groen zwart wit in header Express waar waar waar waar waar vals waar vals waar waar vals vals vals waar waar vals waar vals vals vals waar vals vals vals De mailing werd al dan niet naar een mailinglijst verstuurd Spam mails worden vaak niet naar 1 persoon, maar naar een volledige mailinglijst gestuurd. Veronderstel dat 40% van de binnenkomende mails naar een mailinglijst worden verstuurd en 60% niet. 6. Veronderstel tenslotte dat de kans dat een mail een spam mail is rechtstreeks afhangt (en alleen afhangt) van het feit dat de mail naar een mailinglijst werd verstuurd of niet. Veronderstel dat 70% van de mails op een mailinglijst spam mails zijn, terwijl dit voor de andere mails (niet verstuurd naar een mailinglijst) 40% bedraagt.

3 Gebruik deze informatie nu om de volgende opdrachten uit te voeren. 1. Opdracht 1.1 (a) Construeer een Baysiaans netwerk in Netica dat model staat voor een eevoudige spam filter. Hoeveel knopen heb je nodig? Hoe zijn de knopen onderlingen verbonden? Vul de kansentabel bij elke knoop in. (b) Houd het Netica bestand (.dne) goed bij. (c) Testen van je netwerk: veronderstel dat er een nieuwe mail binnenkomt die geschreven is in Outlook Express, met groene achtergrond, geen xxx in de header en met de woorden offer en account in de body. Gebaseerd op deze gegevens, wat is de kans dat deze mail spam is? (Als je netwerk correct is opgebouwd, zou je een kans van 71.4% moeten vinden.) 2. Opdracht 1.2 (a) In hetzelfde mapje als de omschrijving van deze opdracht vind je ook het bestand mail1.txt. Veronderstel dat deze tekst de body is van een binnenkomende mail. Gebruik opnieuw het tooltje op hklein/zipf/zipf.htm om de frequenties van de woorden in mail1.txt te bepalen. Welk zijn de drie woorden met de grootste frequentie? Zet de toestand van deze woorden in je Bayesiaans Netwerk op WAAR en laat de andere zeven woordknopen onaangeroerd. Veronderstel dat de achtegrondkleur rood is. (b) Wait is de kans dat mail1 spam is? Zouden we deze mail best als spam klasseren? (c) Veronderstel nu bovendien dat de mail niet in Outlook Express geschreven is. Verandert dit iets aan de kans dat deze mail spam is? Kan je dit verklaren? (d) Voeg je conclusies en bevindingen toe aan je oplossingen. 3. Opdracht 1.3 (a) Veronderstel dat het tekstbestand mail2.txt de body bevat van een tweede binnenkomende mail. Veronderstel dat we ook volgende bijkomende eigenschappen van mail2 kennen: de achtergrondkleur is rood, de mail is geschreven in Outlook Express en werd verzonden naar een mailinglijst. Zet opnieuw de toestand van de drie woorden met de grootste frequentie op TRUE en laat de zeven andere woordknopen onaangeroerd. (b) Wat is de kans dat mail2 spam is of niet? klasseren? Zouden we deze mail best als spam (c) Voeg je conclusies en bevindingen toe aan je oplossingen. 4. Opdracht 1.4 (a) Omdat onze spam filter berekend heeft dat mail1 vermoedelijk een spam mail is, kunnen we de woorden uit mail1 gebruiken om de lijst met frequenties van woorden in spam mails te updaten. (b) Voeg dus de woorden van mail1 toe aan de lijst van de 10 spam*.txt bestanden en gebruik opnieuw de internettool om de kans (in procent) te bepalen dat één van de 10 woorden opduikt in een spam mail. Deze keer zijn deze percentages dus niet alleen gebaseerd op de 10 spam*.txt bestanden maar ook op het mail1.txt bestand.

4 (c) Gebruik deze nieuwe lijst om de kansentabellen in de 10 woordknopen van je Bayesiaans Netwerk te updaten. Geef dit nieuwe model ook een nieuwe naam en houd ook dit Netica bestand (.dne)goed bij. (d) Gebruik dit nieuwe model om op nieuw de kans te bepalen dat mail2 spam is. Zouden we deze mail nu best als spam klasseren of niet? (e) Verklaar dat dit betekent dat onze Bayesiaans spam filter bijgeleerd heeft en persoonlijk wordt. (f) Voeg je conclusies en bevindingen toe aan je oplossingen. 5. Opdracht 1.5 Doe een paar suggesties voor eigenschappen (knopen) die je zou kunnen toevoegen aan je Bayesiaanse spam filter? Hoe zijn deze knopen verbonden met de andere knopen? Voeg je suggesties toe aan je oplossingen. 6. Opdracht 1.6 Uiteraard proberen spammers ook Bayesiaanse spam filters te omzeilen. Een gekende techniek heet Bayesian poisoning. Leg kort uit wat men hieronder verstaat.

5 Opdracht 2: Troubleshooter met repair actions en questions In deze opdracht bereken je de te verwachten kost voor een aantal strategieën om een probleem te verhelpen. Naast het uitvoeren van acties ( repair actions ), kunnen er nu ook vragen ( questions ) gesteld worden. 1. Open het Netica bestand I:/GT/Export/roroe/2 TI/SN -Operationele analyse/les 5/Netica/Netica 1.12/Oef/Lichte print3.dne 2. Dit bestand bevat een Bayesiaans netwerk dat model staat voor een printprobleem waarbij de tekst te licht wordt afgedrukt. Dit model voldoet aan de volgende vrij algemene voorwaarden: ˆ er is 1 probleemknoop met de verschillende mogelijke oorzaken (f i ) van het probleem ˆ er zijn repair actions a j verbonden met de probleemknoop, kost c aj ˆ er zijn vragen q k ( questions ) verbonden met de probleemknoop, kost c qk ˆ er is een repair action a cs die elke oorzaak herstelt met kost c cs ( call service ) 3. Veronderstel dat in dit voorbeeld: c a1 = 2, c a2 = 1, c a3 = 5, c a4 = 10, c a5 = 2, c a6 = 1, c cs = 50, c q1 = 3, c q2 = 1, c q3 = Bereken de te verwachten kost EC(S 1 ) voor onderstaande strategie S 1. A 3 = ja A 4 = ja Q 1 = nee A 3 A 3 = nee A 4 A 4 = nee A cs Q 1 Q 1 = ja A 5 A 5 = nee A 6 A 6 = nee A cs A 5 = ja A 6 = ja 5. Bekijk ook eens de volgende strategie S 2 : eerst wordt vraag q 2 gesteld. Als het antwoord nee is, dan wordt vraag q 3 gesteld. Als het antwoord op vraag q 3 nee is, dan wordt actie a 4 uitgevoerd. Indien het antwoord op vraag q 3 ja is, dan wordt actie a 5 uitgevoerd. Als het antwoord op vraag q 2 ja is, dan wordt actie a 5 uitgevoerd. Indien het probleem niet opgelost geraakt, wordt er eventueel een service call naar de helpdesk gedaan. PDF-XCHANGE w w w.docu-track.co m DEMO VERSION (a) Stel een schema op van de strategie S 2. (b) Bereken de te verwachten kost EC(S 2 ) voor de strategie S 2.

6 Opmerking In de praktijk zijn er in een troubleshooter vaak veel meer mogelijke oorzaken, acties en vragen. De structuur van het onderliggende Bayesiaans netwerk is dan ook veel ingewikkelder. Bekijk bijvoorbeeld eens het netwerk I:/GT/Export/roroe/2 TI/SN - Operationele analyse/les 5/printer troubleshooting.jpg Indien geen extra voorwaarden worden opgelegd, bestaat er geen algoritme meer om de optimale strategie expliciet te berekenen. Er bestaan wel methodes om een strategie te vinden die de optimale strategie vrij goed benaderd. Een voorbeeld van een dergelijke commerciële troubleshooter kan je vinden op Probeer bij wijze van voorbeeld eens de Internet Connection Troubleshooter of de Bad Coffee troubleshooter. In de versie normal krijg je alleen vragen en acties voorgeschoteld met de bedoeling om het probleem op een efficiënte manier op te lossen. In de versie expert krijg je ook de vragen te zien gerangschikt volgens toenemende kost. Je krijgt ook op elk moment de mogelijke oorzaken en oplossingen te zien gerangschikt volgens dalende kansen en efficiëntie. In dergelijke commerciële troubleshooters krijg je als gebruiker zelden het onderliggende Bayesiaanse netwerk te zien. Maar het is er wel en het vorm zelfs de kern van de troubleshooter!